404 Media의 'Behind the Blog' 코너로, 이번 주 주요 기사 제작 과정의 뒷이야기를 다룹니다. 기자 에마누엘은 스포티파이에서 실제 아티스트 이름으로 유포되는 AI 생성 음악 문제를 조사하며, 그 심각성과 광범위함에 다시 한번 충격을 받았다고 전합니다. AI 콘텐츠가 디지털 음악 유통 시스템을 악용하는 사례가 매우 만연하다는 점이 이번 이슈의 핵심입니다.
404 Media 기자가 AI 음악 생성기 Udio로 만든 곡을 유통사 DistroKid를 통해 브루클린 펑크밴드 Lathe of Heaven의 공식 스포티파이 페이지에 무단으로 올릴 수 있음을 실험으로 입증했다. 디지털 음악 유통 시스템의 허점을 악용하면 누구나 실존 아티스트의 페이지를 장악해 로열티를 가로챌 수 있으며, 특히 활동하지 않거나 사망한 아티스트가 표적이 되기 쉽다. 음원 스트리밍 플랫폼과 유통사 모두 이 문제에 책임을 지지 않고 있는 실정이다.
Anthropic이 최근 8개월간 자사 AI 서비스 '클로드(Claude)'가 악용된 사례를 종합한 보고서를 발표했습니다. 러시아 국가후원 해킹그룹 미드나잇 블리자드의 정찰 활동, 사이버범죄, 여론조작, 심지어 생화학무기 개발 시도까지 다양한 악용 사례가 문서화되었으며, Anthropic은 모든 사례에서 진행 중인 활동을 차단했다고 밝혔습니다.
WIRED는 학생들이 생성형 AI로 만든 성적 허위 이미지(딥페이크)로 피해를 입은 여러 미국 교사들의 사례를 보도했습니다. 캘리포니아의 대리교사 루이스 데산티아고는 자신의 사진이 변조된 부적절한 이미지가 소셜미디어에 확산되며 두 학교에 걸친 괴로움을 겪었고, 안전을 느끼지 못해 근무 지역으로 복귀하지 않기로 했습니다. 이는 AI 이미지 생성 기술이 학교 현장에서 교사와 학생 모두에게 심각한 피해를 주고 있으며, 'Take It Down Act' 같은 법적 대응의 중요성을 보여줍니다.
404 Media 기자가 독자들에게 'ChatGPT 포스터(전단지)' 사례를 공유해달라고 요청한 후, 끔찍하고 황당한 AI 생성 광고물 사례가 쏟아졌습니다. 실생활 곳곳에 무분별하게 사용된 저품질의 AI 이미지에 대한 대중의 강한 거부감과 불만이 확인된 사안입니다.
실무자 관점에서 AI 응답의 무분별한 남용과 그로 인한 소통의 비효율성을 지적한 글입니다. 개발 과정과 비즈니스 소통에서 AI가 생성한 부정확한 답변을 검증 없이 전달하는 사례가 빈번하게 발생하고 있으며, 진짜 사람과 소통하고 싶은 답답함을 호소하고 있습니다.